Cùng năm 219, Quan Vũ bị liên minh Ngô-Ngụy giáp binh đánh bại và bị giết.

Năm 221, Lưu Bị lên ngôi hoàng đế, Trương Phi được phong làm Xa kị tướng quân kiêm Tư Lệ hiệu úy, Tây Hương hầu. Lưu Bị khởi binh đi đánh Đông Ngô báo thù cho Quan Vũ, sai Trương Phi cầm quân bản bộ xuất phát từ Lãng Trung đến Giang Châu hội binh với Lưu Bị.

Quan Vũ khéo đối xử với sĩ tốt mà kiêu ngạo với đại sỹ phu, còn Trương Phi yêu kính người quân tử mà không thương xót kẻ tiểu nhân. Lưu Bị thường khuyên bảo Trương Phi rằng: “Khanh dùng hình phạt quá mức, lại hay đánh đập người dưới, xử phạt xong mà vẫn giữ bên mình, ấy là chuốc lấy tai vạ vậy.” Phi vẫn không chịu sửa đổi. Khi đang chuẩn bị tấn công Đông Ngô, Trương Phi bị bộ hạ dưới trướng mình là Trương Đạt và Phạm Cương sát hại,[1] cắt lấy thủ cấp, xuôi theo sông trốn sang Ngô xin hàng Tôn Quyền. Lưu Bị nghe tin có biểu từ doanh trại Trương Phi báo về thì than: "Ôi! Phi hỏng mất rồi."

Lưu Bị truy tặng thụy hiệu cho Trương Phi là Hoàn hầu. Cho nên sau này Trương Phi còn được gọi là Trương Hoàn hầu.